Lã Bố chạy đến Nam Dương xin theo Viên Thuật. Viên Thuật có thù Đổng Trác giết nhiều người trong họ nhà mình ở Lạc Dương nên thu nhận và chu cấp cho Lã Bố.

Lã Bố để cho thủ hạ làm nhiều điều trái phép, cướp của cải của dân. Viên Thuật thấy vậy tỏ ý giận, không chu cấp cho Lã Bố nữa. Ông bèn bỏ Nam Dương đi một mạch dài, qua sông Hoàng Hà tới quận Hà Nội thuộc Tinh châu, theo thái thú Hà Nội là Trương Dương - người vốn từng cùng ông phục vụ dưới trướng Đinh Nguyên. Tuy Trương Dương là người tốt và có nghĩa khí[3] nhưng trong số thủ hạ của Dương lại muốn giết ông để lập công theo lệnh tầm nã của Lý Thôi (đã khống chế vua Hiến Đế) và để trả thù cho Đinh Nguyên. Lã Bố lo sợ không yên, muốn thử lòng Trương Dương, bèn nói:

Trương Dương thấy lòng tốt của mình bị nghi ngờ nên mếch lòng nói:

Tuy Trương Dương không hành động gì nhưng Lã Bố cảm thấy không an toàn, sau đó cùng thủ hạ lẻn trốn khỏi quận Hà Nội sang Ký châu theo Viên Thiệu.

Ông giúp Viên Thiệu đánh tướng Khăn Vàng là Trương Yên ở Thường Sơn. Yên có hơn vạn tinh binh, mấy nghìn quân kỵ. Bố có con ngựa hay gọi là Xích Thố. Tào Man truyện chép: Người bấy giờ có câu rằng: "Người thì có Lã Bố, ngựa thì có Xích Thố". Ông cưỡi ngựa Xích thố, mỗi ngày cùng vài chục thủ hạ xông thẳng vào trại địch ba bốn lần. Quân Trương Yên thua tan tác, bản thân Trương Yên nản lòng, cuối cùng nhận sự chiêu an của triều đình.

Lã Bố lập công, liên tiếp sai người giục Viên Thiệu tăng viện cho mình. Tướng sĩ dưới quyền cũng cậy công đi cướp bóc. Thấy Viên Thiệu không đáp ứng tăng viện, ông bèn xin về Lạc Dương. Viên Thiệu ngoài mặt đồng ý, phong Lã Bố làm Tư lệ hiệu úy, nhưng sau lưng lại dặn các tướng thừa cơ giết ông.

Lã Bố đoán biết Viên Thiệu nghi ngờ mình, nên sắp đặt kế thoát thân. Ban đầu ông giả cách ngồi trong trướng gảy đàn tranh, nhưng sau đó đưa đàn cho người khác gảy tiếp để lừa thủ hạ của Viên Thiệu, còn ông thì bí mật nhân trời tối lẻn chạy trốn. Một lúc sau thủ hạ của Viên Thiệu đi thám thính nghe tiếng đàn tắt tưởng Lã Bố đã ngủ bèn đi báo cho các tướng của Viên Thiệu. Các tướng ập đến mới biết bị lừa. Viên Thiệu nghe tin báo không giết được ông bèn sai người đuổi theo, nhưng những người đuổi theo đều không địch nổi Lã Bố, bị đánh phải quay trở về.

Cùng đường, ông lại đành phải tìm đến chỗ Trương Dương. Trương Dương không nhắc lại việc trước đây Lã Bố ra đi không từ biệt, cho ông quay trở lại. Trên đường đi, ông qua quận Trần Lưu và được thái thú Trương Mạc - người từng hội binh đánh Đổng Trác – đón rước và kết giao với nhau.